Hoje, a plataforma aberta da iFlytek anunciou o lançamento oficial de sua 807ª capacidade de IA - os modelos DeepSeek. Fornecidos pela DeepSeek de Hangzhou, os modelos DeepSeek incluem as versões DeepSeek-V3 e DeepSeek-R1, ambas com suporte para chamada de API em nuvem pública e implantação de modelo exclusivo com um clique. É particularmente digno de nota que a plataforma aberta da iFlytek também lançou o serviço de ajuste fino de modelos grandes DeepSeek, permitindo que os desenvolvedores personalizem modelos exclusivos "mais inteligentes e mais compatíveis" com base nos dados do cenário de negócios.

A Black Forest Labs, startup alemã de inteligência artificial, lançou recentemente uma API de ajuste fino FLUX Pro. Com ela, os usuários podem personalizar modelos de imagem de IA FLUX Pro usando apenas cinco imagens de amostra para corresponder ao estilo visual de uma marca específica. De acordo com a Black Forest Labs, após o ajuste fino, o modelo mantém sua flexibilidade, integrando o conteúdo fornecido pelo usuário em novas criações de imagens. O sistema...

Durante uma maratona de lives de 12 dias, a OpenAI lançou no 9º dia a API do modelo o1 para desenvolvedores e anunciou uma atualização significativa para a API em tempo real, com suporte à tecnologia WebRTC. A partir da data de lançamento, a OpenAI fornecerá acesso à API o1 para desenvolvedores com nível 5 de acesso à API. Esta atualização da API do modelo o1, em comparação com a versão de pré-visualização anterior, alcançou uma redução de 60% no custo de processamento e adicionou recursos avançados de processamento visual. Simultaneamente, o GPT-4o em processamento de áudio...

A iFlytek anunciou recentemente uma atualização para sua plataforma de Inteligência Artificial de Baixo Código StarFire. A atualização da plataforma StarFire de baixo código acelera o desenvolvimento e expande os cenários de aplicação por meio da construção rápida e personalização flexível, aumentando a precisão das decisões do agente de IA por meio da integração de dados. Após a atualização, os usuários podem criar gratuitamente agentes de IA valiosos, integrar a plataforma de ajuste fino para otimização personalizada, atualizar a solução RAG para expandir o conhecimento especializado e lançar modelos para reduzir a barreira de entrada do desenvolvimento.

Recentemente, uma equipe de pesquisa da Universidade Jiao Tong de Xangai e da Universidade de Harvard apresentou um novo método de ajuste fino de modelos – LoRA-Dash. Este novo método afirma ser mais eficiente do que os métodos LoRA existentes, especialmente no ajuste fino de tarefas específicas, onde pode atingir o mesmo desempenho com uma redução de 8 a 16 vezes no número de parâmetros. Isso representa, sem dúvida, um avanço significativo para tarefas de ajuste fino que exigem muitos recursos computacionais. No contexto do rápido desenvolvimento de modelos de linguagem em larga escala, a necessidade de ajustar modelos para tarefas específicas está crescendo. No entanto, o ajuste fino muitas vezes...

A plataforma Baidu Smart Cloud Qianfan anunciou recentemente que agora oferece suporte para serviços de ajuste fino personalizados para seu modelo de linguagem grande principal, o ERNIE 4.0 Turbo. Os clientes corporativos podem solicitar este serviço através do site oficial da Baidu Smart Cloud para atender às suas necessidades e características de dados específicas, treinando assim um modelo de linguagem grande mais adequado para suas necessidades empresariais e obtendo uma melhoria significativa no desempenho.

A OpenAI anunciou que desenvolvedores terceirizados podem ajustar finamente o novo modelo multimodal de grande porte GPT-4o. Este recurso permite que os desenvolvedores adaptem o comportamento do modelo às suas necessidades específicas, como alterar o tom, seguir instruções ou melhorar a precisão em tarefas técnicas. O ajuste fino requer apenas uma pequena quantidade de dados de treinamento para alcançar uma melhoria significativa no desempenho e é fácil de usar. A OpenAI está oferecendo aos desenvolvedores 1 milhão de Tokens gratuitos por dia até 23 de setembro, além de 2 milhões de Tokens gratuitos diários para o modelo GPT-4o mini.

PanoFree é uma técnica inovadora de geração de imagens multiperspectivas que gera imagens panorâmicas multiperspectivas, incluindo imagens longas, panoramas de 360 graus e imagens de skybox, sem ajuste fino. Seu núcleo reside em um processo iterativo de deformação e reparo para resolver problemas de consistência e artefatos durante a geração, ao mesmo tempo em que melhora a consciência inter-perspectiva. O PanoFree emprega orientação inter-perspectiva, estimativa de áreas de risco, apagamento e orientação bidirecional simétrica, combinada com controle semântico e de densidade baseado em orientação, para garantir a preservação da estrutura da cena. Experimentos mostram que o PanoFree apresenta um erro...

A Microsoft anunciou o lançamento do ajuste fino sem servidor para o modelo de linguagem pequeno Phi-3, permitindo que os desenvolvedores otimizem facilmente o desempenho do modelo na plataforma Azure AI, sem precisar gerenciar a infraestrutura subjacente, e inicialmente gratuito. O modelo Phi-3, com 3 bilhões de parâmetros, é ideal para desenvolvedores corporativos, oferecendo desempenho eficiente e baixo custo. Embora tenha menos parâmetros que o GPT-3.5 da OpenAI, ele apresenta desempenho semelhante em diversos aplicativos. O ajuste fino sem servidor simplifica a operação, reduz a barreira de entrada e suporta o ajuste fino de modelos pequenos e médios. Isso

Recentemente, a OpenAI, líder em inteligência artificial, anunciou o lançamento de um recurso de ajuste fino para seu novo modelo de pequena escala, o GPT-4o mini, com o objetivo de melhorar o desempenho do modelo em cenários de aplicação específicos. Essa iniciativa proporcionará aos desenvolvedores e empresas soluções de IA mais personalizadas. De acordo com a OpenAI, de hoje até 23 de setembro, os usuários podem ajustar finamente o GPT-4o mini gratuitamente, com um limite de até 2 milhões de tokens de treinamento por dia. Valores acima disso serão cobrados a um custo de 3 por milhão de tokens.

Os Grandes Modelos de Linguagem (LLMs) são conhecidos por suas excelentes capacidades de processamento de linguagem natural, mas na prática, sua fase de inferência enfrenta desafios de alto custo computacional e uso de memória. Para melhorar a eficiência dos LLMs, os pesquisadores introduziram uma técnica chamada Q-Sparse. O método Q-Sparse, através da aplicação de esparsificação top-K nas ativações e de um estimador de passagem direta, alcança a compressão de estado com ativação totalmente esparsa, melhorando significativamente a eficiência da inferência. Pesquisas mostraram que o Q-Sparse consegue manter resultados semelhantes ao modelo base...

No campo da IA, os modelos de linguagem grandes (LLMs) demonstraram capacidades excepcionais de compreensão e geração de linguagem, como GPT-3 e Llama-2. No entanto, a enorme quantidade de parâmetros desses modelos apresenta desafios de alta demanda de recursos para treinamento e implantação. A solução tradicional é treinar várias versões do modelo para se adaptar a diferentes ambientes computacionais, mas esse método é ineficiente. Para isso, a NVIDIA e a Universidade do Texas em Austin propuseram o framework Flextron, uma arquitetura de modelo flexível e um método de otimização que suporta implantação sem ajuste fino adicional. Flextr

A Anthropic lançou seu modelo mais recente, Claude 3 Haiku, no Amazon Bedrock, abrindo caminho para os clientes ajustarem finamente o modelo. Este recurso inovador permite que os usuários personalizem o conhecimento e as capacidades do modelo de acordo com suas necessidades de negócios, para melhor desempenho em tarefas específicas. O ajuste fino aprimora o modelo para tarefas específicas, como classificação, interação com APIs personalizadas e interpretação de dados do setor. Use o console do Amazon Bedrock ou a API para começar.

Dois pesquisadores chineses do Instituto de Tecnologia da Geórgia e da NVIDIA desenvolveram recentemente uma estrutura inovadora de ajuste fino chamada RankRAG. Esta estrutura simplifica significativamente o complexo processo RAG, usando um único LLM para lidar com as tarefas de recuperação, classificação e geração, com resultados que superam em muito os processos tradicionais. A tecnologia RAG é amplamente utilizada para auxiliar na geração de texto em larga escala. No entanto, os processos originais identificaram claramente as limitações da escolha do valor k: um valor k muito alto torna o processamento de contexto longo difícil, enquanto um valor k muito baixo reduz a eficiência da recuperação. RankRA

O Midjourney lançou recentemente um recurso inovador de personalização de modelo que permite aos usuários ajustar finamente o modelo MJ de acordo com suas preferências estéticas. Este recurso analisa as imagens que o usuário gostou e salvou no passado para realizar o ajuste personalizado, fazendo com que o estilo das imagens geradas se aproxime das preferências pessoais do usuário.

O modelo aMUSEd, lançado pela Hugging Face, gera imagens em segundos, mais rápido do que concorrentes como Stable Diffusion. O aMUSEd utiliza um modelo leve de texto para imagem, baseado no modelo MUSE do Google. O aMUSEd emprega uma arquitetura de Modelo de Imagem Mascara (MIM), reduzindo as etapas de inferência, melhorando a velocidade de geração e a explicabilidade. O modelo está disponível na Hugging Face

O Alibaba Tongyi Lab lançou o SCEdit, um framework de ajuste fino de geração de imagens de IA de código aberto. O framework SCEdit suporta o ajuste fino para tarefas de geração de imagens. O framework SCEdit apresenta desempenho eficiente em tarefas de geração. O framework SCEdit permite controle preciso em tarefas de geração controlável. O framework SCEdit economiza o consumo de memória de treinamento.

A Cohere anunciou um novo conjunto de ferramentas de ajuste fino, incluindo recursos de bate-papo, classificação e classificação de várias etiquetas, para ajudar as empresas a personalizar aplicativos de IA. Um novo painel de ajuste fino permite que os usuários gerenciem e executem projetos de ajuste fino, fornecendo um ambiente de teste, monitoramento de progresso em tempo real e uma calculadora de preços. Ajuste fino melhora o desempenho do modelo, aumentando a precisão das soluções geradas em 60%, melhorando as soluções de bate-papo em 40%, treinando modelos em 30 minutos e colocando-os em produção em 1 minuto. A Cohere planeja expandir a equipe de seu centro de pesquisa em Londres para atender às necessidades de modelos personalizados para empresas.

O RA-DIT melhora a capacidade dos modelos de linguagem de usar informações recuperadas e o mecanismo de recuperação para fornecer resultados relevantes por meio de um ajuste fino em duas etapas. O RA-DIT supera os modelos de recuperação aprimorados existentes em testes de zero-shot e few-shot com conhecimento intensivo. O RA-DIT65B mostra melhorias de desempenho em tarefas que exigem o uso de conhecimento, demonstrando a eficácia do ajuste fino. O RA-DIT traz melhorias na capacidade de recuperação para modelos de linguagem, apresentando um bom desempenho em avaliações intensivas em conhecimento e demonstrando a eficácia do ajuste fino.

A equipe de Ma Yi propôs a estrutura EMT para avaliar o esquecimento catastrófico em modelos de linguagem multimodal de grande escala (MLLM) após o ajuste fino. Os experimentos mostram que, embora o ajuste fino do MLLM melhore o desempenho em conjuntos de dados de ajuste fino, ele também leva à queda no desempenho em outros conjuntos de dados. Durante o ajuste fino, o MLLM gera texto alucinatório relacionado aos conjuntos de dados de ajuste fino e ignora as perguntas originais. Esta pesquisa fornece uma estrutura e um benchmark para trabalhos futuros, e o design do modelo e as técnicas de treinamento ainda precisam ser otimizados. A equipe de Ma Yi realizou a primeira avaliação sistemática do esquecimento catastrófico em MLLMs.